Meta, "nudify" uygulama teknolojisinin üreticisine dava açtı

Meta, Perşembe günü yaptığı açıklamada, gerçek insanların fotoğraflarda giyinik olarak göründüğü çıplak görüntüleri yapay zeka kullanarak taklit eden bir uygulama üreticisine dava açtığını söyledi.

Meta, CrushAI uygulamasının arkasındaki kuruluş olan Joy Timeline HK Limited'a, CrushAI uygulamalarının Meta platformlarında reklamının yapılmasını engellemek için Hong Kong'da dava açtığını söyledi.

Meta bir bildiride, "Bu yasal işlem, hem bu suistimali ne kadar ciddiye aldığımızı hem de topluluğumuzu bundan korumak için elimizden gelen her şeyi yapma kararlılığımızı vurguluyor," dedi. "Platformlarımızı bu şekilde suistimal edenlere karşı gerekli adımları atmaya devam edeceğiz - buna yasal işlem de dahil olabilir."

Meta, Joy Timeline'ın Meta'nın reklam inceleme sürecini atlatmak için "birden fazla girişimde" bulunmasının ardından yasal işlemin başlatıldığını iddia ediyor.

Sosyal medya sitelerinin reklam politikalarını ihlal etmelerine rağmen, sözde çıplaklık uygulamalarının reklamları Meta'nın Facebook ve Instagram platformlarında göründü. Uygulamaları yapan CrushAI, kullanıcıların fotoğraf yüklemesine ve "herkesi çıplak görmesine" izin verdiğini söylediği AI araçlarını tanıttı, CBS News araştırması bunu buldu .

Meta, şirketin platformlarında "rıza dışı mahrem görüntüleri" yasakladığını söyledi. Şirket daha önce CBS News'e çıplaklık teknolojisi için reklamları kaldırdığını, platformlarında reklamları yayınlayan sayfaları sildiğini ve uygulamalarla ilişkili web sitelerini kalıcı olarak engellediğini söyledi.

Meta Perşembe günü, çocuk güvenliği kurallarını ihlal eden davranışları izleyen Tech Coalition'ın Lantern Programı aracılığıyla politikalarını ihlal eden kuruluşlar hakkında reklam URL'leri de dahil olmak üzere bilgileri diğer teknoloji şirketleriyle paylaşacağını söyledi. Şirkete göre, Meta Mart ayından bu yana programa diğer teknoloji şirketleriyle paylaşılan 3.800'den fazla site hakkında bilgi sağladı.

Meta, nudify uygulamalarının reklam verenlerinin platformlarında tespit edilmekten kaçınmak için çeşitli yollar kullandığını, sitelerinde bu tür reklamları tespit etmek için kullanılan teknolojiyi atlatmak için saldırgan olmayan görseller kullandığını söyledi. Meta, Perşembe günü yaptığı açıklamada, bunun sonucunda, iyi huylu olarak sunulan nudify uygulamalarındaki reklamları tespit etmek için daha iyi bir teknoloji geliştirdiğini söyledi.

Meta, "Sistemlerimizin bu reklamlarda tespit etmek üzere eğitildiği güvenlikle ilgili terimler, ifadeler ve emojilerin listesini genişletmek için harici uzmanlarla ve kendi uzman ekiplerimizle çalıştık" dedi.

Emmet Lyons bu rapora katkıda bulundu.